Dương Tu người Hoằng Nông, Hoa Âm (nay là Hoa Âm, Thiểm Tây), xuất thân cao môn sĩ tộc.

Tằng tổ phụ Dương Chấn , tổ phụ Dương Tứ  đều làm quan Thái úy dưới thời Đông Hán. Đến đời cha là Dương Bưu, họ Dương giữ chức Thái úy dưới triều Hán Hiến Đế, được Hậu Hán thư gọi là Tứ thế Thái úy, có thể nói là một sĩ tộc vô cùng hiển hách không kém họ Viên của Viên Thiệu, Viên Thuật và họ Vương của Tư đồ Vương Doãn. Cha ông Dương Bưu vốn là một số rất ít trung thần dám phản đối quyền thần lấn át Thiên tử (trước là Đổng Trác, sau này là Tào Tháo). Vợ của Dương Bưu là Viên phu nhân, em gái Viên Thuật và Viên Thiệu.

Khi Viên Thuật công khai xưng đế chống triều đình, Tào Tháo vốn không ưa Dương Bưu, bèn nhân đó lệnh bắt giam ông định giết. Nhưng nhờ có Khổng Dung can gián về đức độ của ông, Tào Tháo bèn thả ông. Biết nhà Hán sắp mất không thể cứu vãn được, Dương Bưu bèn cáo bệnh xin về ở ẩn.

Dương Tu vốn là người có tài, xuất thân cao môn sĩ tộc lại có tiếng học rộng hiểu sâu, ông từ vị Hiếu liêm  dần dần làm đến chức Chủ bộ, là thủ hạ dưới trướng Tào Tháo khi ấy đang là Thừa tướng. Quyền cao chức trọng, hằng ngày Tào Tháo bận nhiều việc, hầu hết các việc trong ngoài của phủ đều do Dương Tu nắm giữ. Có thể nói, Dương Tu khi ấy là một trong những nhân vật ảnh hưởng nhất triều đình.

Ông có mối giao hảo tốt với Tào Thực, con trai thứ tư của Tào Tháo và quyết định trở thành mưu sĩ theo phò cho Tào Thực trong cuộc chiến giành ngôi vị Thế tử giữa Tào Thực và Tào Phi.